Защо AI халюцинациите могат да бъдат нещо добро
Авторът е създател на, подкрепян от FT уебсайт за европейски започващи компании
Тенденцията на системите за генеративен изкуствен интелект да „ халюцинират “ — или просто измисляйте неща - може да бъде необичайно и от време на време ужасно, както откри една новозеландска верига супермаркети за цената си. След като Pak’nSave пусна чатбот предходната година, предлагащ оферти за предписания на спестовни купувачи, употребяващи остатъчни съставки, неговият Savey Meal-bot предложи на един клиент да направи „ ароматна водна примес “, която би произведла хлорен газ.
Адвокатите също са се научили да бъдат внимателни във връзка с резултатите от генеративни модели на ИИ, поради способността им да измислят изцяло фиктивни случаи. Неотдавнашно изследване на Станфордския университет на отговорите, генерирани от три най-съвременни генеративни AI модела на 200 000 правни запитвания, откри, че халюцинациите са „ всеобхватни и смущаващи “. Когато бяха заложени съответни, проверими въпроси за случайни федерални правосъдни каузи, ChatGPT 3.5 на OpenAI халюцинира 69 % от времето, до момента в който моделът Llama 2 на Meta доближи 88 %.
За доста консуматори халюцинациите на генеративния AI са провокиращ бъг, който те допускат, че софтуерните компании ще поправят един ден, тъкмо като имейл спама. До каква степен фирмите могат да го създадат, сега е обект на дейни проучвания и яростни разногласия. Някои откриватели настояват, че халюцинациите са присъщи на самата технология. Генеративните AI модели са вероятностни машини, подготвени да дават най-статистически евентуалния отговор. Трудно е да се кодират човешки черти като здрав разсъдък, подтекст, нюанси или разсъждения.
Докато технолозите се пробват да схванат това, някои консуматори намират машинно генерираната небивалица за вълнуваща функционалност и са били проучване на неговите креативен благоприятни условия. „ Обичам халюцинациите “, споделя Мартин Пухнер, професор от Харвардския университет и създател. „ Те са толкоз готини, когато става дума за артистично творчество. “
Като създател на Култура: Нова международна история, Пухнер има характерен взор върху творчеството. В книгата си той твърди, че в продължение на хилядолетия хората са асимилирали входящите данни от предишни генерации и други култури и са ги смесвали, с цел да генерират свежи синкретични резултати. Помислете какъв брой доста имперски Рим е заимствал от антична Гърция, или италианският подем е почерпил от арабската просвета, или по какъв начин Япония е възприела китайската книжовност и философия, или ямайската растафарианска просвета е погълнала етиопските обичаи.
Всяка цивилизация, написа Пухнер, има наклонност да надценяват оригиналността на личната си просвета, с цел да поддържат съмнителни искания за предимство и благосъстоятелност. „ Подобни изказвания комфортно не помнят, че всичко идва отнякъде, бива изкопано, взето назаем, преместено, закупено, откраднато, записано, копирано и постоянно завалено “, написа той. „ Културата е голям план за преработване. “
Паралели с генеративния AI са поразителни. До известна степен нашите машини вършат през днешния ден това, което хората са правили вечно: смесват разнообразни културни входове, с цел да генерират леко разнородни резултати. В този смисъл генеративният AI може да се преглежда като гигантска машина за културен синкретизъм. Разчитайки на несъвършени, частични данни и прекомерно самоуверени в обобщаването на съответното, машините може да наподобяват повече на неверни хора, в сравнение с от време на време си представяме. Халюцинациите може да не са толкоз алгоритмична аберация, колкото отражение на човешката просвета.
Всичко това звучи нереално. Какво значи на процедура? Накратко, всичко зависи от случая на приложимост. Генеративните AI модели могат да бъдат приказен инструмент за възстановяване на човешката креативност посредством генериране на нови хрумвания и наличие, изключително в музика, изображения и видео.
Ако бъдат подсказани по верния метод, тези модели могат да работят като потребен спаринг сътрудник и неуморен източник на ентусиазъм за креативен планове. Те могат да бъдат алгоритмичен еквивалент на мислене отвън кутията. Самият Пухнер опитва с персонализирани чатботове, с цел да беседва с исторически персони, като Аристотел, Конфуций и Исус, въз основа на техните думи и хрумвания. „ Бързото инженерство би трябвало да бъде част от образователната стратегия на Харвард “, споделя Пухнер.
Основателят на една генеративна AI компания ми споделя, че бързо навлизаме в ерата на „ генеративните медии “. „ Интернет и обществените медии сведоха разноските за разпространяване до нула. Сега, с помощта на Gen AI, разноските за основаване също се приближават до нула “, споделя той. Тази наклонност може да докара до детонация на креативност, както за положително, по този начин и за неприятно. Това може също да задълбочи опасенията по отношение на дезинформацията и кражбата на интелектуална благосъстоятелност.
Колкото и впечатляващ да е като публицист на художествена литература, генеративният ИИ към момента има да извърви дълъг път, когато става въпрос за надеждна нехудожествена литература. Това е добре, до момента в който го използваме като инструмент за възстановяване на човешките качества, вместо да си го представяме като сътрудник, който може да размени цялата човешка процесорна мощност. За да халюцинирате фраза: caveat sumpter.
